Sau khi đưa ra hoạt động vào tháng 4 năm 1904, Schwaben phục vụ như một tàu huấn luyện pháo binh hải quân.[3] Con tàu đặt căn cứ tại Sonderburg thuộc vùng biển Baltic cùng với các tàu tuần dương bọc thép Prinz Heinrich và Prinz Adalbert cùng nhiều tàu huấn luyện khác.[6] Vào năm 1908, các con tàu huấn luyện tại Baltic được đặt dưới quyền chỉ huy của Chuẩn đô đốc Hugo von Pohl,[7] người sẽ đảm nhận quyền chỉ huy Hạm đội Biển khơi Đức vào năm 1915 trong Chiến tranh Thế giới thứ nhất.[8]

Sau khi chiến tranh nổ ra vào tháng 8 năm 1914, Schwabenvà những chiếc cùng lớp được huy động trong thành phần Hải đội Chiến trận 4 dưới quyền chỉ huy của Phó đô đốc Ehrhard Schmidt.[9] Bắt đầu từ ngày 3 tháng 9 năm 1914, Hải đội Chiến trận 4, có sự hỗ trợ của tàu tuần dương bọc thép Blücher, bắt đầu một cuộc càn quét vào biển Baltic. Chiến dịch kéo dài cho đến ngày 9 tháng 9 nhưng không lôi kéo được các đơn vị Hải quân Nga vào cuộc xung đột.[10] Vào tháng 5 năm 1915, Hải đội Chiến trận 4, kể cả Schwaben, được điều sang hỗ trợ cho Lục quân Đức tại khu vực biển Baltic.[11] Schwaben và các tàu chị em sau đó đặt căn cứ tại Kiel.[12]

Vào ngày 6 tháng 5, các con tàu thuộc Hải đội 4 được giao nhiệm vụ hỗ trợ cho cuộc tấn công chiếm đóng Libau. Schwaben cùng các tàu khác chiếm lấy vị trí ngoài khơi Gotland nhằm đánh chặn mọi tàu tuần dương Nga tìm cách ngăn cản cuộc đổ bộ; tuy nhiên phía Nga đã không hoạt động. Đến ngày 10 tháng 5, sau khi lực lượng tấn công đã tiến vào Libau, các tàu ngầm Anh E1 và E9 đã phát hiện Hải đội 4, nhưng ở khoảng cách quá xa không thể tấn công chúng.[12] Schwaben cùng các con tàu chị em đã không có mặt trong thành phần hạm đội Đức tham gia tấn công vịnh Riga vào tháng 8 năm 1916 do thiếu hụt lực lượng hộ tống. Sự tăng cường hoạt động của các tàu ngầm Anh đã buộc phía Đức phải phân bổ thêm tàu khu trục hộ tống để bảo vệ cho các tàu chiến chủ lực.[13]

Đến năm 1916, mối đe dọa của tàu ngầm đối phương tại biển Baltic buộc Hải quân Đức phải rút những chiếc lớp Wittelsbach đã lạc hậu khỏi các hoạt động ở tuyến đầu.[14] Schwaben quay trở lại vai trò như một tàu huấn luyện tại Wilhelmshaven.[3] Sau trận Jutland vào ngày 31 tháng 5–1 tháng 6 mà bản thân Schwaben không tham dự, Chuẩn đô đốc Franz von Hipper, Tư lệnh Hải đội tàu chiến-tuần dương Đức,[15] gửi bốn tàu chiến còn sống sót dưới quyền vào ụ tàu để sửa chữa. Hipper đã chọn Schwaben, vốn đang đặt căn cứ tại Wilhelmshaven, làm tàu chỉ huy tạm thời của mình trong khi lực lượng dưới quyền đang sửa chữa.[16]

Con tàu được giữ lại một thời gian ngắn cùng Hải quân Đức được tái thành lập sau khi chiến tranh kết thúc. Schwaben sau đó được cải biến thành một tàu kho chứa cho tàu quét mìn Kiểu F.[17] Tuy nhiên, chiếc thiết giáp hạm cũ đã không phục vụ lâu trong vai trò mới, khi nó được rút khỏi Đăng bạ Hải quân vào ngày 8 tháng 3 năm 1921; và bị bán với giá 3.090.000 Mark để tháo dỡ cùng năm đó tại Kiel-Nordmole.[3]